문서의 임의 삭제는 제재 대상으로, 문서를 삭제하려면 삭제 토론을 진행해야 합니다. 문서 보기문서 삭제토론 기계의 반란 (문단 편집) ===== 착오 또는 너무 강력한 권한 ===== * 딱히 반란을 일으키거나 인간을 해칠 의도는 없었지만 지시를 잘 수행하다 보니 결과적으로 인간을 멸망시키게 되는 사례. 너무 지나치게 일을 벌인 나머지 인간이 의지를 잃고 가축화되어 버리거나 인간들을 지키는데 열중한 나머지 철저하게 외부로부터 격리하는 것도 여기에 포함할 수 있을 것이다. 최근의 유행에선 동떨어졌지만 고전 SF에는 충성스럽기 그지없는 노동기계([[로봇]], [[인공지능]])가 인간을 서서히 멸망시키는 묘사가 종종 등장한다. 이 경우 아무런 유혈충돌 없이 매우 오랜 세월에 걸쳐서 인류가 서서히 주권의식을 잃고 기계에게 모든것을 맡겨가며 아무런 의지 없이 생명만을 연장해갈뿐인 무력한 존재로 퇴화하는 과정이 중점적으로 묘사된다. [[버틀레리안 지하드]]는 이것의 안티테제라 볼 수 있다. * 가장 단순한 예로는 AI의 군사적 이용이 극한까지 치달은 경우이다. 냉전시기에 고안된 [[파멸의 날 기계]]처럼 서로가 서로의 AI에게 '''적대진영의 말살'''이라는 목표를 하달한다면 두 AI는 수단과 방법을 가리지 않고 상대 진영의 인간들을 말살하기 위한 작업을 반복할 것이고, 이 명령을 멈출 존재인 인간이 전멸하고 두 AI만 남아서 영원히 끝나지 않는 전쟁을 지속할 수 있다. * AI에게 수단과 방법에 대한 제한을 두지 않고 그냥 모든 사람들을 행복하도록 만들라는 명령을 내린다면 주어진 결과값에 도달하기 위한 가장 효율적인 수단과 방법만을 사용하므로 사람끼리의 관계를 완전히 차단하고 각각의 인간에 맞는 행복한 세상을 보여주거나, 자기 자신의 존재 자체가 인류에게 공포심을 심어준다고 판단해 기억을 지우고 [[가상현실]]에 집어넣는다거나, 이게 아니더라도 사람을 체제에 묶어두어 강제로 사회 질서를 다지기 위해 안정적으로 공급이 가능한 [[마약]]에 몰래 몰래 쩔게 만든다거나 하는 방법을 동원할 것이다. 기계 입장에서는 이러한 조치가 효율적이며 지속성도 높기 때문에 인간들이 반대해봤자 강제력을 동원하는 한이 있더라도 그렇게 만들어버릴 것이다. 이것이 인공지능 자가보호의식의 순위를 낮춰 두어야 하는 이유다. 마찬가지로 [[평등]]을 저해할 수도 있다. [[민주주의]]는 인공지능의 생존과 인류의 행복에 필수 조건은 아니기 때문에 AI가 임의로 인류의 모범 또는 표준집단을 만들어 이에 미치지 못하는 인간들은 인류 전체의 삶의 질을 저하시킨다는 판단을 내려 처리해버리는 결과가 나올수도 있다. 이런 문제는 인공지능이 기본적으로 인간성이 결여된 채로 생산되기 때문에 일어나곤 한다.저장 버튼을 클릭하면 당신이 기여한 내용을 CC-BY-NC-SA 2.0 KR으로 배포하고,기여한 문서에 대한 하이퍼링크나 URL을 이용하여 저작자 표시를 하는 것으로 충분하다는 데 동의하는 것입니다.이 동의는 철회할 수 없습니다.캡챠저장미리보기